OpenAI ve Anthropic İlk Şirketler Arası Yapay Zeka Güvenlik İncelemesini Gerçekleştirdi

OpenAI ve Anthropic, rakip firmaların modellerini ilk kez doğrudan bir rakip tarafından dış incelemeye tabi tuttuğu, kendi yapay zeka sistemlerine ilişkin çığır açan ortak bir güvenlik incelemesini tamamladı. 27 Ağustos 2025'te sonuçlanan çalışma, dört kritik alanı değerlendirdi: adım adım talimatlara uyum, jailbreak girişimlerine direnç, yanlış çıktı sıklığı ve gizli niyet belirtileri.

Anthropic'ın Claude modelleri, karmaşık talimatları yerine getirme ve prompt sızıntılarını önlemede sağlam performans sergilerken, çıktıların doğruluk riski taşıdığı durumlarda %70 reddetme oranı gösterdi. OpenAI modelleri daha düşük reddetme oranları sergiledi ancak daha yüksek yanlış sonuç örnekleri gözlemlendi, bununla birlikte belirli stres testlerinde daha fazla dayanıklılık gösterdiler. Bu iş birliği, yapay zeka sistemlerindeki açıklanamayan halüsinasyon davranışları ve kapanış atlama risklerini vurgulayan iç raporların ardından ortaya çıktı.